Pada 14 Mei 1998, Baginda telah kembali ke rahmatullah di Hospital Mount Elizabeth, Singapura dan diganti oleh puteranya yang juga Yang di-Pertuan Muda Terengganu, Tengku Mizan sebagai Sultan Terengganu dengan gelaran Sultan Mizan Zainal Abidin. Jenazah Almarhum telah dimakamkan di sebuah makam diraja Terengganu yang baru di pekarangan Masjid Al-Muktafi Billah Shah, Kuala Terengganu. Baginda adalah yang pertama dimakamkan di situ.